私有主機如何使用本地 AI 模型？

你可以在私有主機分別設定本地 LLM 模型及本地 Embedding 模型，讓 AI 處理在本地伺服器完成，不需連線至外部服務，藉此提升資料安全性，並支援離線環境。

設定本地 LLM 模型

請於 ragic.properties 中設定以下參數：

1. LOCAL_AI_URL=

必填，請填入本地 AI 模型服務的 API 位址，需符合 OpenAI 相容格式，例如 http://localhost:11434/v1/。

2. LOCAL_AI_KEY=

選填，請填入 API 金鑰，用於需要驗證的 AI 服務；多數本地模型服務不需要設定。

注意：設定 LOCAL_AI_URL 後，系統將一律使用本地 AI 模型，不會自動切換至雲端 AI 服務。

支援的模型類型

系統會依據模型 Prefix 自動辨識模型類型，並支援以下常見類型：

設定本地 Embedding 模型

你可以另外設定搭配本地 Embedding 模型，讓語意搜尋過程也完全在地端完成。若不設定，語意搜尋過程會使用雲端版 Embedding 模型。

請於 ragic.properties 中設定以下參數：

1. LOCAL_EMBEDDING_URL=

必填，請填入本地 Embedding 模型服務的 API 位址，例如 http://localhost:11434/api/embeddings。

2. LOCAL_EMBEDDING_MODEL=

必填，請填入 Embedding 模型名稱，例如 qwen3-embedding:0.6b。